Ông gia nhập Đảng Cộng sản Việt Nam vào ngày 7/02/1995.

Ông từng là đại biểu hội đồng nhân dân tỉnh Bắc Kạn nhiệm kỳ 1999-2004, 2004-2011, 2011-2016.

Từ tháng 7 năm 2007 đến tháng 8 năm 2013, Hoàng Duy Chinh là Tỉnh ủy viên, Bí thư Ban Cán sự Đảng, Thẩm phán trung cấp, Chánh án Tòa án nhân dân tỉnh Bắc Kạn.[4][5]

Khi lần đầu ứng cử đại biểu Quốc hội Việt Nam khóa XIV vào tháng 5 năm 2016 ông đang là Phó Bí thư tỉnh ủy Bắc Kạn, làm việc ở tỉnh ủy Bắc Kạn.

Ông đã trúng cử đại biểu Quốc hội năm 2016 ở đơn vị bầu cử số 2, tỉnh Bắc Kạn gồm có thành phố Bắc Kạn và các huyện: Bạch Thông, Chợ Đồn, Chợ Mới, được 88.431 phiếu, đạt tỷ lệ 74,09% số phiếu hợp lệ.

Ông hiện là Phó Bí thư tỉnh ủy, Trưởng Đoàn Đại biểu Quốc hội tỉnh Bắc Kạn, Ủy viên Ủy ban Pháp luật của Quốc hội.

Ông đang làm việc ở Tỉnh ủy Bắc Kạn.